Metadata, Structure, or Strategy? A Decomposition of RAG Context Enrichment
RAG上下文增强的分解:元数据、结构与检索策略对齐
🧭 RAG上下文增强与模型能力对齐
University of Passau · Interdisciplinary Transformation University Austria
控制实验揭示大多数RAG上下文增强反而降低准确率,模型-上下文对齐比元数据堆砌更重要
📌 工作参考价值(5 点)
- 在电商搜索/推荐的 RAG 场景中,避免盲目添加置信度、时间戳等元数据,应先在目标模型上测试该元数据是否提升下游准确率。
- 提示词微调时,若显式要求模型利用某类元数据(如分数),需警惕模型“遵从但答错”的现象,可通过 ablation 实验验证元数据的实际效用。
- 元数据格式选择应与模型的预训练特性对齐:若模型在预训练时少见结构化记录,可能无法有效利用,反而可改用简单自然语言描述。
- 多跳检索策略需谨慎:复杂证据链可能引入噪声,仅在模型能力足够时采用,且可通过早期停止或置信度筛选控制上下文质量。
- 小模型在元数据-任务对齐时可超过大模型,在资源受限的线上推理中,优先考虑选择与上下文格式兼容的轻量模型,而非一味堆参数。